What do navigation agents learn about their environment?

分享人：张琬若
研究方向：视觉语义导航
论文题目：What do navigation agents learn about their environment?
论文作者：Kshitij Dwivedi, Gemma Roig, Aniruddha Kembhavi, Roozbeh Mottaghi
作者单位：法兰克福大学、艾伦人工智能研究所
论文摘要：当今最先进的视觉导航代理通常由端到端训练的大型深度学习模型组成。此类模型几乎无法解释所学技能或智能体响应其环境所采取的行动。虽然过去的工作探索了解释深度学习模型，但很少有人关注解释具体的AI系统，这通常涉及对环境结构、目标特征和一个人的行为结果的推理。在本文中，我们介绍了点目标和对象目标导航代理的具体代理可解释性系统 (iSEE)。我们使用iSEE来探测由这些代理生成的动态表示，以了解有关代理和环境的信息的存在。我们展示了关于使用iSEE的导航代理的有趣见解，包括编码可达位置（以避免障碍）的能力、目标的可见性、从初始产卵位置的进展以及当我们屏蔽关键神经元对代理行为的巨大影响。
原文链接：

点击此处